Vọng là con trai thứ hai của An Bình Hiến vương Tư Mã Phu, được chọn làm người kế tự của bác cả Tư Mã Lãng. Vọng tính khoan hậu, có phong thái của cha. Ban đầu Vọng làm Thượng kế lại ở quận, được cử Hiếu liêm, vời làm Tư đồ duyện, trải qua các chức vụ Bình Dương thái thú, Lạc Dương điển nông trung lang tướng. Theo Tư Mã Ý đánh Vương Lăng, nhờ công được phong Vĩnh An đình hầu. Được thăng Hộ quân tướng quân, cải phong An Nhạc hương hầu, gia Tán kỵ thường thị. Khi ấy Ngụy đế Tào Mao yêu mến kẻ sĩ, Vọng cùng Bùi Tú, Vương Thẩm, Chung Hội được đãi ngộ thân thiết, vài lần trải chiếu hầu rượu. Tào Mao nóng tính, bọn Tú giữ nội chức, gọi gấp thì đến ngay; còn Vọng là ngoại quan, được đặc cấp một cỗ Truy phong xa, 5 vệ sĩ Hổ bôn. Bởi anh em Tư Mã Sư - Tư Mã Chiêu nối nhau chuyên quyền, khiến Vọng càng được sủng ái thì càng bất an, vì thế xin ra làm Chinh tây tướng quân, Trì tiết, Đô đốc Ung Lương 2 châu chư quân sự. Tại nhiệm 8 năm, nhờ uy vũ dần có tiếng là sáng suốt, nghiêm túc. Vọng nhiều lần đẩy lui tướng Thục Hán là Khương Duy, vùng Quan Trung dựa vào ông. Được tiến phong Thuận Dương hầu. Được gọi về triều làm Vệ tướng quân, lãnh Trung lĩnh quân, nắm Cấm binh. Sau đó được gia Phiêu kỵ tướng quân, khai phủ. Ít lâu sau được thay Hà Tằng làm Tư đồ [2].